Sau năm 1954, huyện Yên Sơn có 2 thị trấn nông trường gồm: thị trấn nông trường Sông Lô, thị trấn nông trường Tháng 10 và 41 xã: An Khang, An Tường, Chân Sơn, Chiêu Yên, Công Đa, Đạo Viên, Đội Bình, Đội Cấn, Hoàng Khai, Hùng Lợi, Kiến Thiết, Kim Quan, Kim Thắng, Lang Quán, Lực Hành, Lưỡng Vượng, Mỹ Lâm, Nhữ Hán, Nhữ Khê, Nông Tiến, Phú Lâm, Phú Thịnh, Phúc Ninh, Quý Quân, Tân Long, Tân Tiến, Thái Bình, Thái Long, Thắng Quân, Tiến Bộ, Tràng Đà, Trung Minh, Trung Môn, Trung Sơn, Trưng Trắc, Trung Trực, Tứ Quận, Vinh Phú, Xuân Vân, Y Bằng, Ỷ La.

Ngày 30 tháng 4 năm 1965, hợp nhất xã Trưng Trắc và các xóm Phú Hưng, Tỉnh Húc, Bình An, Ngọc Kim, Tân Kiều, Tân Thành, Cây Đa, Đông Sơn A, Đông Sơn B và Tân Long của xã An Tường thành một xã mới lấy tên là Hưng Thành.[3]

Ngày 26 tháng 7 năm 1968, 4 xã: Hưng Thành, Nông Tiến, Tràng Đà, Ỷ La được sáp nhập về thị xã Tuyên Quang.

Ngày 22 tháng 5 năm 1969, hợp nhất hai xã Quý Quân và Lực Hành thành một xã lấy tên là xã Hồng Sơn; hợp nhất hai xã Thái Bình và Tiến Bộ thành một xã lấy tên là xã Bình Ca; hợp nhất hai xã Nhữ Hán và Nhữ Khê thành một xã lấy tên là xã An Khê; hợp nhất hai xã Tân Long và Tân Tiến thành một xã lấy tên là xã Tân Hồng; hợp nhất hai xã Vinh Phú và Kim Thắng thành một xã lấy tên là xã Kim Phú; hợp nhất hai xã Y Bằng và Mỹ Lâm thành một xã lấy tên là xã Mỹ Bằng; hợp nhất hai xã Trung Môn và Chân Sơn thành một xã lấy tên là xã Trung Môn.[4]

Ngày 16 tháng 1 năm 1979, thành lập thị trấn Tân Bình.[5] Tuy nhiên, Tân Bình không phải là thị trấn huyện lị huyện Yên Sơn, các cơ quan hành chính huyện đóng tại xã An Tường.

Ngày 13 tháng 2 năm 1987, các xã Tân Hồng, Bình Ca, Hồng Sơn, Trung Môn chia tách lại thành các xã như cũ.

Ngày 15 tháng 7 năm 1999, giải thể thị trấn nông trường Sông Lô. Dân cư thuộc thị trấn nông trường hiện đang sinh sống trên địa bàn các xã An Tường, Nhữ Khê, Đội Bình, An Khang, Thắng Quân, Thái Long, Lưỡng Vượng, Hoàng Khai, Đội Cấn và thị trấn Tân Bình được giao về các xã và thị trấn nói trên quản lý; giải thể thị trấn nông trường Tháng 10. Dân cư thuộc thị trấn nông trường hiện đang sinh sống trên địa bàn các xã Mỹ Bằng, Phú Lâm, Nhữ Hán, Kim Phú được giao về cho các xã nói trên quản lý; chia xã An Khê thành hai xã Nhữ Hán và Nhữ Khê.

Cuối năm 2007, huyện Yên Sơn có thị trấn Tân Bình và 35 xã: An Khang, An Tường, Chân Sơn, Chiêu Yên, Công Đa, Đạo Viện, Đội Bình, Đội Cấn, Hoàng Khai, Hùng Lợi, Kiến Thiết, Kim Phú, Kim Quan, Lang Quán, Lực Hành, Lưỡng Vượng, Mỹ Bằng, Nhữ Hán, Nhữ Khê, Phú Lâm, Phú Thịnh, Phúc Ninh, Quý Quân, Tân Long, Tân Tiến, Thái Bình, Thái Long, Thắng Quân, Tiến Bộ, Trung Minh, Trung Môn, Trung Sơn, Trung Trực, Tứ Quận, Xuân Vân. Huyện lỵ đặt tại xã An Tường.

Ngày 3 tháng 9 năm 2008, sáp nhập 5 xã: An Tường, Lưỡng Vượng, An Khang, Thái Long, Đội Cấn vào thị xã Tuyên Quang (nay là thành phố Tuyên Quang) quản lý. Huyện Yên Sơn còn lại 1 thị trấn và 30 xã. Huyện lỵ dời về xã Thắng Quân.

Ngày 21 tháng 11 năm 2019, Ủy ban Thường vụ Quốc hội ban hành Nghị quyết 816/NQ-UBTVQH14 về việc sắp xếp các đơn vị hành chính cấp huyện, cấp xã thuộc tỉnh Tuyên Quang (nghị quyết có hiệu lực từ ngày 1 tháng 1 năm 2020)[1]. Theo đó, sáp nhập thị trấn Tân Bình và hai xã Phú Lâm, Kim Phú vào thành phố Tuyên Quang.

Ngày 27 tháng 4 năm 2021, Ủy ban Thường vụ Quốc hội ban hành Nghị quyết số 1262/NQ-UBTVQH14 (nghị quyết có hiệu lực từ ngày 1 tháng 7 năm 2021)[6]. Theo đó:

• Điều chỉnh một phần diện tích và dân số của các xã Lang Quán, Tứ Quận về xã Thắng Quân quản lý
• Thành lập thị trấn Yên Sơn, thị trấn huyện lỵ của huyện Yên Sơn trên cơ sở toàn bộ diện tích và dân số của xã Thắng Quân (sau khi điều chỉnh địa giới hành chính).

Huyện Yên Sơn có 1 thị trấn và 27 xã như hiện nay.